Κεφάλαιο 2 ΕΚΤΙΜΗΣΗ ΠΑΡΑΜΕΤΡΩΝ. 2.1 Σηµειακή Εκτίµηση. ˆθ παίρνει διαφορετικές τιµές, δηλαδή η ˆθ είναι η ίδια τ.µ. µε κάποια κατανοµή κι έχει µέση

Transcript

1 Κεφάλαιο 2 ΕΚΤΙΜΗΣΗ ΠΑΡΑΜΕΤΡΩΝ Οι στατιστικές δείγµατος, όπως η δειγµατική µέση τιµή x και η δειγµατική διασπορά s 2, που ϑα δούµε παρακάτω, υπολογίζονται από τα στατιστικά δεδοµένα που έχουµε συλλέξει και χρησιµοποιούνται για την εκτίµηση των σχετικών παραµέτρων πληθυσµού (µ και σ 2 αντίστοιχα). Τα στατιστικά δεδοµένα πρέπει να προέρχονται από τυχαίο κι αντιπροσωπευτικό δείγµα του πληθυσµού. Για παράδειγµα, αν ϑέλουµε να µελετήσουµε το όριο της έντασης ηλεκτρικού ϱεύµατος που καίγονται ασφάλειες 40 αµπέρ ϑα πρέπει να διαλέξουµε στην τύχη ασφάλειες του ίδιου τύπου και να µετρήσουµε σε ποια ένταση του ϱεύµατος καίγεται η κάθε µια από αυτές. Από τις µετρήσεις του δείγµατος µπορούµε να υπολογίσουµε τη σηµειακή εκτίµηση (point estimation) και την εκτίµηση διαστήµατος (interval estimation) της παραµέτρου µιας τ.µ.. 2. Σηµειακή Εκτίµηση Η σηµειακή εκτίµηση είναι µια τιµή, που υπολογίζεται µε ϐάση τα δεδοµένα και αντιπροσωπεύει την πραγµατική τιµή της σχετικής παραµέτρου του πληθυσµού. Για παράδειγµα, ο µέσος όρος των 25 τιµών τάσης διάσπασης που µετρήθηκαν σε δείγµα 25 ηλεκτρικών κυκλωµάτων αποτελεί µια σηµειακή εκτίµηση της µέσης τάσης διάσπασης κυκλώµατος. Εστω X µια τ.µ. µε συνάρτηση κατανοµής F X (x; θ) που εξαρτάται από την παράµετρο θ την οποία ϑέλουµε να εκτιµήσουµε. Εστω ακόµα ότι έχουµε ανεξάρτητες µεταξύ τους παρατηρήσεις {x,..., x n } της X από ένα δείγµα µεγέθους n. Τότε η σηµειακή εκτίµηση της θ δίνεται από τη συνάρτηση g(x,...,x n ) των τιµών του δείγµατος που λέγεται εκτιµήτρια συνάρτηση. Η εκτιµήτρια (estimator) της θ από το δείγµα είναι ˆθ = g(x,...,x n ). Επειδή οι παρατηρήσεις {x,...,x n } αλλάζουν κάθε ϕορά που µελετάµε διαφορετικό δείγ- µα µεγέθους n, µπορούµε να υποθέσουµε ότι οι παρατηρήσεις {x,...,x n } είναι τιµές των τ.µ. {X,...,X n }, που είναι ανεξάρτητες µεταξύ τους κι ακολουθούν την ίδια κατανοµή F(x; θ). Η παράµετρος ˆθ είναι συνάρτηση αυτών των τ.µ.. Για ευκολία ϑα χρησιµοποιούµε το συµβολισ- µό {x,...,x n } και ϑεωρητικά (εννοώντας τις τ.µ. {X,...,X n }) και πρακτικά (εννοώντας τις παρατηρούµενες αριθµητικές τιµές αυτών των τ.µ.). Θα αναφερόµαστε στις {x,..., x n } ως τυχαίο δείγµα. Είναι ϕανερό ότι για διαφορετικά τυχαία δείγµατα η εκτιµήτρια συνάρτηση της παραµέτρου ˆθ παίρνει διαφορετικές τιµές, δηλαδή η ˆθ είναι η ίδια τ.µ. µε κάποια κατανοµή κι έχει µέση τιµή µˆθ E(ˆθ) και διασπορά σ 2ˆθ Var(ˆθ). 9

2 20 ΕΚΤΙΜΗΣΗ ΠΑΡΑΜΕΤΡΩΝ ύο σηµαντικές παράµετροι µιας τ.µ. X που ϑέλουµε να εκτιµήσουµε είναι η µέση τιµή µ κι η διασπορά σ 2. Εκτίµηση µέσης τιµής Είναι ϕυσικό σαν εκτιµήτρια της µ να ορίσουµε τον αριθµητικό µέσο όρο των n παρατηρήσεων, που λέγεται και δειγµατική µέση τιµή x = n x i. (2.) Εκτίµηση διασποράς Οπως για τη µέση τιµή έτσι και για τη διασπορά σ 2 η εκτιµήτρια είναι η δειγµατική διασπορά που ορίζεται µε δύο τρόπους, έχουµε δηλαδή τις δύο εκτιµήτριες της σ 2 s 2 = (x i x) 2 (2.2) n s 2 = n (x i x) 2. (2.3) Οι εκτιµήτριες s 2 και s 2 διαφέρουν µόνο ως προς το συντελεστή του αθροίσµατος ( n και n αντίστοιχα). Για µεγάλο n οι δύο εκτιµήτριες συγκλίνουν στην ίδια τιµή. Αναπτύσσοντας τα τετράγωνα της (2.2) έχουµε ( s 2 = ) (x 2 i 2x i x + x 2 ) = x 2 i 2 x x i + n x 2 n n και χρησιµοποιώντας τον ορισµό της x από την (2.) παίρνουµε τον ισοδύναµο τύπο (όµοια για τη (2.3)) ( ) s 2 = x 2 i n x 2. (2.4) n Ο τύπος (2.4) είναι πιο εύχρηστος για τον υπολογισµό της s Κριτήρια καλών εκτιµητριών Παραπάνω ορίσαµε κάπως αυθαίρετα εκτιµήτριες της µέσης τιµής µ και της διασποράς σ 2 χωρίς να γνωρίζουµε αν είναι καλές εκτιµήτριες ή όχι. Γενικά όταν ορίζουµε µια εκτιµήτρια ˆθ κάποιας παραµέτρου θ ϑέλουµε να ελέγξουµε αν είναι κατάλληλη και γι αυτό ϑέτουµε κάποια κριτήρια ή ιδιότητες που πρέπει να πληρεί µια καλή εκτιµήτρια. Παρακάτω περιγράφονται ορισµένες επιθυµητές ιδιότητες µιας εκτιµήτριας ˆθ. Αµεροληψία Η ˆθ είναι αµερόληπτη (unbiased) αν η µέση τιµή της είναι ίση µε την παράµετρο θ, δηλαδή E(ˆθ) = θ. Αλλιώς λέγεται µεροληπτική µε µεροληψία b(ˆθ) = E(ˆθ) θ. Αµεροληψία µέσης τιµής Η δειγµατική µέση τιµή x που ορίστηκε στη (2.) είναι αµερόληπτη εκτιµήτρια της µέσης τιµής µ µιας τ.µ. X ενός πληθυσµού.

3 ΕΚΤΙΜΗΣΗ ΠΑΡΑΜΕΤΡΩΝ 2 Εχουµε θ µ και ˆθ x και ϑέλουµε να δείξουµε ότι E( x) = µ. ( ) E( x) = E x i = E(x i ) = µ = µ. n n n Αµεροληψία διασποράς Για την εκτίµηση της διασποράς σ 2 µιας τ.µ. X του πληθυσµού ισχύουν οι παρακάτω δύο προτάσεις:. Η δειγµατική διασπορά s 2 που ορίστηκε στη (2.2) είναι αµερόληπτη εκτιµήτρια της σ 2, E(s 2 ) = σ Η δειγµατική διασπορά s 2 που ορίστηκε στη (2.3) είναι µεροληπτική εκτιµήτρια της σ 2 µε µεροληψία b( s 2 ) = σ2 n. Αποδεικνύουµε πρώτα την πρόταση (). Υπενθυµίζουµε ότι για µια τ.µ. X µε µέση τιµή µ και διασπορά σ 2 ισχύουν σ 2 = E(X 2 ) µ 2 και E(X 2 ) = σ 2 + µ 2. (2.5) Επίσης επειδή οι {x,...,x n } είναι ανεξάρτητες κι έχουν την ίδια διασπορά σ 2 µε τη X ισχύει ( ) Var x i = Var(x i ) = nσ 2 και άρα η διασπορά της δειγµατικής µέσης τιµής x είναι ( ) ( σ 2 x Var( x) = Var ) x i = n n 2 Var x i = n 2nσ2 = σ2 n. (2.6) Χρησιµοποιώντας την παραπάνω ταυτότητα για τη διασπορά καθώς κι ότι µ x E( x) = µ έχουµε από την (2.5) E( x 2 ) = σ 2 x + µ 2 x = σ2 n + µ2. Στη συνέχεια υπολογίζουµε τη µέση τιµή της s 2 που δίνεται από την (2.4): ( ) ( E(s 2 ) = E(x 2 i n ) ne( x2 ) = ( ) ) σ (σ 2 + µ 2 2 ) n n n + µ2 = n (nσ2 + nµ 2 σ 2 nµ 2 ) = σ 2 κι αποδεικνύεται η αµεροληψία της εκτιµήτριας s 2. Για την πρόταση (2), από παραπάνω προκύπτει (διαιρώντας µε n αντί του n ) ότι E( s 2 ) = n n σ2 κι άρα η αµεροληψία είναι b( s 2 ) = E( s 2 ) σ 2 = n n σ2 σ 2 = σ2 n.

4 22 ΕΚΤΙΜΗΣΗ ΠΑΡΑΜΕΤΡΩΝ Συνέπεια Η ιδιότητα αυτή ορίζει πως όσο αυξάνει το µέγεθος n του δείγµατος τόσο µεγαλώνει η πιθανότητα η εκτίµηση να είναι κοντά στην πραγµατική τιµή της παραµέτρου, όπου το κοντά δίνεται από κάποια απόσταση ǫ. ηλαδή η ˆθ είναι συνεπής (consistent) αν P( θ ˆθ ǫ) όταν n, όπου ǫ είναι αυθαίρετα µικρός ϑετικός αριθµός. Οταν µια εκτιµήτρια είναι συνεπής τότε µε την αύξηση του δείγµατος οι τιµές της ϑα συγκλίνουν στην πραγµατική τιµή της παραµέτρου. Η εκτιµήτρια x της µέσης τιµής µ µιας τ.µ. X είναι συνεπής. Αν όµως αντί της δειγµατικής µέσης τιµής διαλέξουµε σαν εκτιµήτρια της µ τον αριθµητικό µέσο της µικρότερης και µεγαλύτερης τιµής του δείγµατος x d = x min + x max, 2 τότε µπορεί να δειχθεί ότι η εκτιµήτρια x d δεν είναι συνεπής εκτιµήτρια της µ. Αποτελεσµατικότητα Η αποτελεσµατικότητα αναφέρεται στη διασπορά της εκτιµήτριας και δίνεται συγκριτικά. Μια εκτιµήτρια ˆθ της θ είναι πιο αποτελεσµατική (effective) από µια άλλη εκτιµήτρια ˆθ 2 αν έχει µικρότερη διασπορά, σ 2ˆθ < σ 2ˆθ2. Για παράδειγµα, η δειγµατική µέση τιµή x και η x d είναι δύο εκτιµήτριες της µέσης τιµής µ κι έχουν διασπορές σ 2 x και σ2 x d αντίστοιχα. Μπορεί να δειχθεί ότι σ 2 x < σ2 x d κι άρα η εκτιµήτρια x είναι πιό αποτελεσµατική από τη x d. Επάρκεια Μια εκτιµήτρια της παραµέτρου θ είναι επαρκής (adequate) όταν χρησιµοποιεί όλη την πληροφορία από το δείγµα που σχετίζεται µε τη θ. Η δειγµατική µέση τιµή x, εκτιµήτρια της µέσης τιµής µ µιας τ.µ. X, είναι επαρκής γιατί χρησιµοποιεί όλες τις παρατηρήσεις που µετρήθηκαν στο δείγµα, ενώ η x d δεν είναι επαρκής γιατί χρησιµοποιεί µόνο δύο τιµές των παρατηρήσεων του δείγµατος (x min και x max ). Παρατηρήσεις Οι εκτιµήτριες x για την παράµετρο µ και s 2 για την παράµετρο σ 2, που ορίσαµε αυθαίρετα, πληρούν όλες τις τέσσερις ιδιότητες και είναι καλές εκτιµήτριες. Οταν ϑέλουµε να ϐρούµε εκτιµήτρια για µια παράµετρο, µας ενδιαφέρει κυρίως να είναι αµερόληπτη και να έχει µικρή διασπορά για να εξασφαλίσουµε ότι οι τιµές της εκτιµήτριας συγκεντρώνονται στην πραγµατική τιµή της παραµέτρου. Γι αυτό ορίζουµε την αµερόληπτη εκτιµήτρια ελάχιστης διασποράς (minimum variance ubiased estimator), δηλαδή αυτή που απ όλες τις αµερόληπτες εκτιµήτριες έχει την µικρότερη διασπορά. Στον ορισµό των εκτιµητριών x και s 2 δεν κάναµε κάποια υπόθεση για την κατανοµή της τ.µ. X κι άρα µπορούµε να τις χρησιµοποιήσουµε για οποιαδήποτε τ.µ. X που παρατηρούµε. Στη συνέχεια ϑα υποθέσουµε πως η κατανοµή της X είναι γνωστή (ως προς τη γενική µορφή της) αλλά δεν είναι γνωστή κάποια παράµετρο θ της κατανοµής και ϑα δούµε πως µπορούµε γενικά να υπολογίσουµε την εκτιµήτρια της θ Μέθοδος υπολογισµού της σηµειακής εκτίµησης Υποθέτουµε ότι η τ.µ. X έχει κάποια γνωστή κατανοµή, δηλαδή γνωρίζουµε τη γενική µορφή της αθροιστικής συνάρτησης κατανοµής F(x; θ) και της f(x; θ), που είναι η συνάρτηση

5 ΕΚΤΙΜΗΣΗ ΠΑΡΑΜΕΤΡΩΝ 23 πυκνότητας πιθανότητας αν η X είναι συνεχής και η συνάρτηση µάζας πιθανότητας αν η X είναι διακριτή. Η παράµετρος θ της κατανοµής είναι άγνωστη και ϑέλουµε να την εκτιµήσουµε από το τυχαίο δείγµα {x,...,x n }. Θα ϑεωρήσουµε επίσης τη γενική περίπτωση να έχουµε περισσότερες από µία άγνωστες παραµέτρους. Μέθοδος των Ροπών Για συνήθεις κατανοµές, µια παράµετρος θ της κατανοµής F(x; θ) σχετίζεται µε τις δύο κύριες παραµέτρους µ και σ 2. Για παράδειγµα, για την κανονική κατανοµή η µέση τιµή µ και η διασπορά σ 2 αποτελούν και τις (µοναδικές) παραµέτρους της. Για την οµοιόµορφη κατανοµή σε διάστηµα [a, b], η σχέση των παραµέτρων της κατανοµής a και b µε τη µέση τιµή µ και τη διασπορά σ 2 δίνεται ως µ = a+b και σ 2 = (b a) Γενικά όταν υπάρχει κάποια σχέση που µας επιτρέπει να υπολογίσουµε την παράµετρο θ (ή τις παραµέτρους θ, θ 2 ) από τις µ και σ 2, τότε υπολογίζουµε πρώτα τις εκτιµήσεις x και s 2 και µετά υπολογίζουµε τη θ (ή τις θ, θ 2 ) από την σχέση, όπου αντικαθιστούµε τις µ και σ 2 µε τις εκτιµήσεις x και s 2 αντίστοιχα. Αυτή είναι η µέθοδος των ϱοπών (method of moments). Η ονοµασία προκύπτει από τη χρήση των ϱοπών στην εκτίµηση των παραµέτρων: τη µέση τιµή µ που είναι η πρώτη ϱοπή και τη διασπορά σ 2 που είναι η δεύτερη κεντρική ϱοπή. Αν οι δύο αυτές ϱοπές δεν επαρκούν, δηλαδή έχουµε να εκτιµήσουµε περισσότερες από δύο παραµέτρους ή οι σχέσεις δε δίνουν µοναδικότητα λύσης για τις παραµέτρους, χρησιµοποιούµε και ϱοπές µεγαλύτερου ϐαθµού, αλλά δε ϑα ασχοληθούµε µε τέτοια προβλήµατα. Παράδειγµα 2. Μια εταιρεία Α παράγει ασφάλειες των 40 αµπέρ και ϑέλουµε να µελετήσουµε κατά πόσο πράγµατι καίγονται οι ασφάλειες σε ένταση ϱεύµατος 40 αµπέρ όπως είναι η ένδειξη τους. Στον Πίνακα 2. δίνονται οι µετρήσεις έντασης του ηλεκτρικού ϱεύµατος στις οποίες κάηκαν 25 ασφάλειες που δοκιµάσαµε (ο πίνακας περιέχει και ίδιου τύπου δεδοµένα γι ασφάλειες από άλλη εταιρεία που ϑα µελετήσουµε αργότερα). Στον Πίνακα 2. δίνεται επίσης το άθροισµα των τιµών, τα τετράγωνα των τιµών καθώς και το άθροισµα των τετραγώνων των τιµών. Για το όριο έντασης ηλεκτρικού ϱεύµατος ασφάλειας 40 αµπέρ της εταιρείας Α η δειγµατική µέση τιµή είναι σύµφωνα µε τη σχέση (2.) x = x i = 995. = Η δειγµατική διασπορά είναι σύµφωνα µε τη σχέση (2.4) s 2 = 24 ( 25 ) x 2 i 25 x2 = 24 ( ) = Με ϐάση αυτό το δείγµα η εκτίµηση της µέση τιµής µ είναι x = αµπέρ και της διασποράς σ 2 είναι s 2 = (αµπέρ) 2. Αν η τ.µ. X (το όριο έντασης ηλεκτρικού ϱεύµατος ασφάλειας 40 αµπέρ) ακολουθεί κανονική κατανοµή N(µ, σ 2 ), τότε είναι ϕανερό πως αυτές οι εκτιµήσεις περιγράφουν πλήρως την κανονική κατανοµή της X µε ϐάση αυτό το δείγµα. Αν η τ.µ. X ακολουθεί οµοιόµορφη κατανοµή σε κάποιο διάστηµα [a, b], τότε µπορούµε να εκτιµήσουµε τις παραµέτρους a και b από τις σχέσεις µ = a+b και σ 2 = (b a)2. Αντικαθιστούµε τις 2 2 µ και σ 2 µε τις εκτιµήσεις x και s 2 και λύνουµε το παρακάτω σύστηµα εξισώσεων x = a+b 2 s 2 = (b a)2 2 â = x 3s ˆb = x + 3s â = ˆb = 4.40.

6 24 ΕΚΤΙΜΗΣΗ ΠΑΡΑΜΕΤΡΩΝ Α/Α (i) x i (αµπέρ) x 2 i x 2i (αµπέρ) x 2 2i Σύνολο Πίνακας 2.: εδοµένα ορίου έντασης ηλεκτρικού ϱεύµατος για ασφάλειες 40 αµπέρ από δύο εταιρείες: x i είναι για την εταιρεία Α και x 2i για την εταιρεία Β. Στις στήλες 3 και 5 δίνονται και τα τετράγωνα των x i και x 2i και στην τελευταία σειρά δίνεται το σύνολο για κάθε στήλη. Μέθοδος της Μεγίστης Πιθανοφάνειας Η µέθοδος αυτή δίνει την εκτίµηση που έχει τη µέγιστη πιθανοφάνεια, δηλαδή δίνει την τιµή της παραµέτρου η οποία, µεταξύ όλων των δυνατών τιµών της παραµέτρου, είναι η πιο πιθανή µε ϐάση το τυχαίο δείγµα. Η συνάρτηση πυκνότητας πιθανότητας για κάποια τιµή X = x i που εξαρτάται από κάποια παράµετρο θ παίρνει την τιµή f(x i ; θ) (αν η X είναι διακριτή τότε αυτή η τιµή εκφράζει την πιθανότητα P(X = x i ) ). Επειδή {x,...,x n } είναι ανεξάρτητες, η πιθανότητα να τις παρατηρήσουµε ταυτόχρονα σ ένα τυχαίο δείγµα µεγέθους n δίνεται από τη συνάρτηση πιθανοφάνειας (likelihood function) ως προς θ L(x,..., x n ; θ) = f(x ; θ) f(x n ; θ). Στα προβλήµατα εκτίµησης, ϑεωρούµε τα {x,..., x n } δεδοµένα και ενδιαφερόµαστε για τη

7 ΕΚΤΙΜΗΣΗ ΠΑΡΑΜΕΤΡΩΝ 25 θ. Άν λοιπόν L(x,...,x n ; θ ) > L(x,...,x n ; θ 2 ) τότε η θ είναι πιο αληθοφανής από τη θ 2 γιατί δίνει µεγαλύτερη πιθανότητα στα παρατηρούµενα {x,...,x n }. Θέλουµε λοιπόν να ϐρούµε την πιο αληθοφανή τιµή της θ, δηλαδή την τιµή ˆθ που µεγιστοποιεί τη L(x,...,x n ; θ) ή καλύτερα, για ευκολότερους υπολογισµούς, τη log L(x,...,x n ; θ). Άρα η εκτιµήτρια µεγίστης πι- ϑανοφάνειας (maximum likelihood estimator) ˆθ ϐρίσκεται µηδενίζοντας την παράγωγο της log L ως προς θ log L(x,...,x n ; θ) = 0. (2.7) θ Άν ϑέλουµε να εκτιµήσουµε δύο ή περισσότερες παραµέτρους θ,..., θ m, η συνάρτηση πιθανοφάνειας είναι L(x,...,x n ; θ,...,θ m ) και οι εκτιµήτριες ˆθ,..., ˆθ m ϐρίσκονται λύνοντας το σύστηµα των m εξισώσεων log L(x,...,x n ; θ,..., θ m ) θ j = 0 για j =,...,m. (2.8) Παράδειγµα 2.2 Εχουµε ένα τυχαίο δείγµα {x,...,x n } από κανονική κατανοµή N(µ, σ 2 ) και ϑέλουµε να εκτιµήσουµε τη µέση τιµή µ ϑεωρώντας τη σ 2 γνωστή. Η συνάρτηση πυκνότητας πιθανότητας της κανονικής κατανοµής είναι f X (x; µ) f(x) = 2πσ e (x µ)2 2σ 2. Η συνάρτηση πιθανοφάνειας (για την οποία µόνο η παράµετρος µ είναι άγνωστη) είναι L(x,...,x n ; µ) = = ( ) ( ) ( ) e (x µ)2 2σ 2 e (x 2 µ)2 2σ 2 e (xn µ)2 2σ 2 2πσ 2πσ 2πσ ( ) [ ] n/2 exp (x 2πσ 2 2σ 2 i µ) 2, όπου exp(x) e x. Ο λογάριθµος της συνάρτησης πιθανοφάνειας είναι log L(x,...,x n ; µ) = n 2 log 2π n 2 log(σ2 ) 2σ 2 (x i µ) 2. Η εκτιµήτρια µεγίστης πιθανοφάνειας ˆµ ϐρίσκεται µηδενίζοντας την παράγωγο της log L (σχέση (2.7) ) log L = 0 (x µ σ 2 i µ) = 0 (2.9) που δίνει τη λύση ˆµ = n x i = x, δηλαδή είναι ίδια µε την εκτιµήτρια x της µέσης τιµής µ που ορίσαµε για οποιαδήποτε κατανοµή της τ.µ. X.

8 26 ΕΚΤΙΜΗΣΗ ΠΑΡΑΜΕΤΡΩΝ Παράδειγµα 2.3 Αν υποθέσουµε στο προηγούµενο παράδειγµα πως κι η διασπορά σ 2 είναι άγνωστη, τότε στην παραπάνω εξίσωση log L µ = 0 προστίθεται κι η εξίσωση log L σ 2 = 0 n 2σ 2 + σ 4 (x i µ) 2 = 0. (2.0) Η επίλυση του συστήµατος των δύο εξισώσεων (2.9) και (2.0) ως προς µ και σ 2 δίνει την ίδια λύση για τη µ και για τη σ 2 είναι ˆσ 2 = n (x i ˆµ) 2 = n (x i x) 2. Οι εκτιµήτριες µεγίστης πιθανοφάνειας λοιπόν για τη µέση τιµή µ και τη διασπορά σ 2 µιας τ.µ. που ακολουθεί κανονική κατανοµή είναι απλά η δειγµατική µέση τιµή και διασπορά αντίστοιχα, αλλά για τη διασπορά έχουµε τη µεροληπτική δειγµατική διασπορά s 2 (σχέση (2.3) ). Ασυµπτωτικά όµως (για µεγάλο n) η εκτιµήτρια ˆσ 2 = s 2 είναι αµερόληπτη. Η µέθοδος µεγίστης πιθανοφάνειας είναι η καλύτερη µέθοδος εκτίµησης αν γνωρίζουµε την κατανοµή της τ.µ. X και µπορεί να εφαρµοσθεί σε οποιοδήποτε πρόβληµα εκτίµησης παραµέτρων. Μέθοδος των Ελαχίστων Τετραγώνων Αυτή η µέθοδος εφαρµόζεται στην περίπτωση που οι άγνωστες παράµετροι εµφανίζονται σε σχέσεις τυχαίων µεταβλητών και οι σχέσεις αυτές είναι γραµµικές ως προς τις παραµέτρους που ϑέλουµε να εκτιµήσουµε. Μια απλή περίπτωση είναι να έχουµε µια τ.µ. Y και η κάθε τιµή της y να δίνεται από τη σχέση y = θ x + + θ m x m + ǫ, όπου οι τιµές x,...,x m είναι γνωστές, θ,...,θ m είναι οι άγνωστες παράµετροι και ǫ είναι µια άλλη τ.µ. µε E(ǫ) = 0. Θα ασχοληθούµε µε τη µέθοδο αυτή στο Κεφάλαιο 2. Παρατηρήσεις Η µέθοδος µεγίστης πιθανοφάνειας µπορεί να εφαρµοσθεί για οποιοδήποτε θ αν γνωρίζουµε την κατανοµή F X (x; θ) ενώ η µέθοδος των ϱοπών δεν εφαρµόζεται αν η θ δε µπορεί να υπολογισθεί από τις ϱοπές. Η εκτίµηση µεγίστης πιθανοφάνειας έχει όλες τις ιδιότητες καλής εκτιµήτριας, δηλαδή είναι αµερόληπτη (ασυµπτωτικά, δηλαδή η µεροληψία b(θ) τείνει στο µηδέν για µεγάλα n), συνεπής, αποτελεσµατική κι επαρκής. Γι αυτό κι αυτή η µέθοδος είναι η καλύτερη µέθοδος εκτίµησης παραµέτρων αν γνωρίζουµε την κατανοµή F X (x; θ). 2.2 Εκτίµηση ιαστήµατος Εµπιστοσύνης Η σηµειακή εκτίµηση ˆθ από κάποιο δείγµα δεν περιέχει καµιά πληροφορία για την ακρίβεια της εκτίµησης της θ. Είναι ένας αριθµός που δε γνωρίζουµε πόσο κοντά είναι στην πραγµατική τιµή της θ κι αλλάζει µε το δείγµα. Για παράδειγµα, υπολογίζουµε τη δειγµατική µέση τιµή x

9 ΕΚΤΙΜΗΣΗ ΠΑΡΑΜΕΤΡΩΝ 27 από ένα τυχαίο δείγµα µεγέθους n. Άν πάρουµε ένα άλλο τυχαίο δείγµα ίδιου µεγέθους, η τιµή της x ϑα είναι διαφορετική. Μπορεί να είναι πιο κοντά ή πιο µακριά στην πραγµατική τιµή της µ απ ότι αυτή από το προηγούµενο δείγµα. Γενικά λοιπόν η εκτιµήτρια ˆθ εξαρτάται από το δείγµα και είναι η ίδια τ.µ. µε κάποια κατανοµή. Γι αυτό στην εκτίµηση της θ είναι σηµαντικό εκτός από τη σηµειακή εκτίµηση ˆθ να υπολογίσουµε και διάστηµα [θ, θ 2 ] που να µπορούµε να πούµε µε µεγάλη εµπιστοσύνη ότι ϑα περιέχει την πραγµατική τιµή της παραµέτρου θ. Στη συνέχεια ϑα δούµε τέτοια διαστήµατα εµπιστοσύνης για διάφορες παραµέτρους, αρχίζοντας από τη µέση τιµή ιάστηµα εµπιστοσύνης της µέσης τιµής µ Η σηµειακή εκτίµηση της µέσης τιµής µ µιας τ.µ. X είναι η δειγµατική µέση τιµή x (σχέση (2.)) που είναι κι αµερόληπτη εκτιµήτρια της µ, δηλαδή η µέση τιµή της x είναι η πραγµατική τιµή µ που είναι άγνωστη όµως σε µας, µ x E( x) = µ. Παρ όλο που η εκτιµήτρια x είναι διαφορετική από δείγµα σε δείγµα, επειδή η x είναι συνεπής εκτιµήτρια όταν αυξάνεται το µέγεθος n του δείγµατος πλησιάζει τη µέση τιµή µ. Η διασπορά λοιπόν της x ϑα πρέπει να εξαρτάται από το n. Πράγµατι για τη διασπορά σ2 x έχουµε ϐρει στη σχέση (2.6) σ2 σ 2 x Var( x) = n, δηλαδή η διασπορά της εκτιµήτριας x είναι ανάλογη της διασποράς σ 2 της X κι αντιστρόφως ανάλογη του αριθµού των παρατηρήσεων n. Στην παραπάνω σχέση υποθέτουµε πως οι παρατηρήσεις {x,...,x n } είναι ανεξάρτητες (εννοώντας και πάλι τις τ.µ. X,...,X n ). Την τυπική απόκλιση (τετραγωνική ϱίζα της διασποράς) σ x = σ/ n της x ϑα την ονοµάζουµε σταθερό σφάλµα (standard error), γιατί ορίζει το τυπικό σφάλµα εκτίµησης της µ µε τη x. Η τ.µ. x λοιπόν έχει κάποια κατανοµή µε µέση τιµή µ x = µ και διασπορά σ 2 x = σ2 /n. Με ϐάση την κατανοµή της x ϑέλουµε να υπολογίσουµε το διάστηµα εµπιστοσύνης της µ. Για να ορίσουµε την κατανοµή της x χρειάζεται να ελέγξουµε το µέγεθος του δείγµατος, αν η κατανοµή της X είναι κανονική κι αν γνωρίζουµε τη διασπορά της. Στη συνέχεια ϑα ορίσουµε την κατανοµή της x και το διάστηµα εµπιστοσύνης για τη µ που προκύπτει κάτω από τις διάφορες συνθήκες. Γνωστή διασπορά Θεωρούµε εδώ ότι γνωρίζουµε τη διασπορά σ 2 της τ.µ. X στον πληθυσµό. Για την κατανοµή της x διακρίνουµε δύο περιπτώσεις:. Αν η τ.µ. X ακολουθεί κανονική κατανοµή N(µ, σ 2 ) ή το δείγµα είναι µεγάλο (n > 30) τότε και η τ.µ. x ακολουθεί κανονική κατανοµή N(µ, σ 2 /n). 2. Αν δε συµβαίνει το παραπάνω, δηλαδή αν η τ.µ. X δεν ακολουθεί κανονική κατανοµή και το δείγµα είναι µικρό τότε γενικά δε γνωρίζουµε την κατανοµή της x. Αν το δείγµα είναι µεγάλο η κανονική κατανοµή της x δίνεται από το Κεντρικό Οριακό Θεώρηµα. Αν η τ.µ. X ακολουθεί κανονική κατανοµή µε γνωστή διασπορά σ 2 τότε και το άθροισµα τέτοιων τ.µ. x,...,x n ακολουθεί κανονική κατανοµή κι έτσι προκύπτει πως και η x ακολουθεί κανονική κατανοµή.

10 28 ΕΚΤΙΜΗΣΗ ΠΑΡΑΜΕΤΡΩΝ Υποθέτοντας ότι η x ακολουθεί κανονική κατανοµή N(µ, σ 2 /n), η τ.µ. z που προκύπτει από τον απλό µετασχηµατισµό z x µ σ/ ακολουθεί την τυπική κανονική κατανοµή n x N(µ, σ 2 /n) z x µ σ/ N(0, ). (2.) n Για την τυπική κανονική κατανοµή µπορούµε να ορίσουµε ένα διάστηµα [z α/2, z α/2 ], στο οποίο ϑα ανήκει η z µε κάποια δοθείσα πιθανότητα α, όπως ϕαίνεται στο Σχήµα 2.. Τα α α/2 α/2 z α/2 0 z α/2 Σχήµα 2.: Συνάρτηση πυκνότητας πιθανότητας της τυπικής κανονικής κατανοµής και οι ουρές της για κάποιο α. άκρα του διαστήµατος, z α/2 και z α/2, λέγονται κρίσιµες τιµές. Οι δείκτες α/2 και α/2 δηλώνουν τις τιµές της αθροιστικής συνάρτησης για z α/2 και z α/2 αντίστοιχα, δηλαδή ισχύει Φ(z α/2 ) = P(z < z α/2 ) = α/2 Φ(z α/2 ) = P(z < z α/2 ) = α/2 όπου Φ(z) είναι η αθροιστική συνάρτηση της τυπικής κανονικής κατανοµής. Άρα η πιθανότητα να είναι z < z α/2 και z > z α/2 είναι α. Οι δύο σκιασµένες περιοχές στο Σχήµα 2. κατέχουν µαζί ποσοστό α% του συνολικού εµβαδού του ολοκληρώµατος της συνάρτησης πυκνότητας πιθανότητας. Αντίστοιχα η πιθανότητα να συµβαίνει z [z α/2, z α/2 ] είναι α. Γενικά λοιπόν ισχύει P(z α/2 < z z α/2 ) = Φ(z α/2 ) Φ(z α/2 ) = α. Επειδή η συνάρτηση πυκνότητας πιθανότητας της τυπικής κανονικής κατανοµής είναι συµ- µετρική ως προς το 0 ισχύει z α/2 = z α/2. Άρα στην ουσία για να ορίσουµε το διάστηµα [z α/2, z α/2 ] χρειαζόµαστε µία µόνο κρίσιµη τιµή. Ανακεφαλαιώνοντας, ϐρήκαµε ότι σε κάθε δοθείσα πιθανότητα α αντιστοιχεί ένα διάστη- µα τιµών της τ.µ. z που ορίζεται από την κρίσιµη τιµή z α/2 που την υπολογίζουµε ως z α/2 = Φ ( α/2) από τον στατιστικό πίνακα της τυπικής κανονικής κατανοµής. Για παράδειγµα για α = 0.05 το διάστηµα [.96,.96] περιέχει την τ.µ. z µε πιθανότητα 0.95, όπου z = Φ (0.975) =.96. [Ο συµβολισµός που χρησιµοποιούµε εδώ, όπως και για άλλες κατανοµές που ϑα δούµε παρακάτω, ϐασίζεται στην αρχή της αντιστοίχισης του δείκτη της κρίσιµης τιµής στην τιµή της αντίστοιχης αθροιστικής συνάρτησης. Σε κάποια ϐιβλία η ϑετική κρίσιµη τιµή z α/2 συµβολίζεται ως z α/2 και η αρνητική κρίσιµη τιµή z α/2 συµβολίζεται ως z α/2 ]. Θέλουµε να µετασχηµατίσουµε το διάστηµα [z α/2, z α/2 ] για πιθανότητα α στο αντίστοιχο διάστηµα που περιέχει την παραµέτρο µ. Γι αυτό λύνουµε τις σχέσεις z α/2 = x µ σ/ n z α/2 = x µ σ/ n

11 ΕΚΤΙΜΗΣΗ ΠΑΡΑΜΕΤΡΩΝ 29 ως προς µ και ϐρίσκουµε τα άκρα του διαστήµατος για τη µέση τιµή µ ] σ σ σ x ± z α/2 n [ x z α/2 n, x + z α/2 n. (2.2) Το διάστηµα αυτό υπολογίστηκε για κάποια δοθείσα πιθανότητα α που είναι το προκα- ϑορισµένο επίπεδο εµπιστοσύνης (confidence level, λέγεται και στάθµη εµπιστοσύνης) και λέγεται διάστηµα εµπιστοσύνης (δ.ε.) (confidence interval) της µ σε επίπεδο α. Η ερµηνεία αυτού του διαστήµατος ϑέλει προσοχή. Σε µια πρώτη προσέγγιση ϑα λέγαµε ότι σηµαίνει µε πιθανότητα (εµπιστοσύνη) α η µέση τιµή µ ϐρίσκεται µέσα σ αυτό το διάστηµα, το οποίο δεν είναι ορθό αφού η µ είναι σταθερό µέγεθος κι όχι τ.µ. για να µιλάµε για την τιµή της µε πιθανότητες. Το µέγεθος που αλλάζει (ανάλογα µε το δείγµα) είναι το διάστηµα και σ αυτό πρέπει να αναφέρεται η πιθανότητα ή εµπιστοσύνη. Σωστότερη λοιπόν ερµηνεία είναι ότι αν χρησιµοποιούσαµε πολλά τέτοια διαστήµατα από διαφορετικά δείγµατα, ποσοστό ( α)% απ αυτά ϑα περιείχαν τη µ ή µε α πιθανότητα (εµπιστοσύνη) το διάστηµα αυτό ϑα περιέχει την πραγµατική µ. Συνοπτικά η διαδικασία για τον προσδιορισµό του διαστήµατος εµπιστοσύνης της µ είναι Επιλογή του επιπέδου εµπιστοσύνης α Υπολογισµός του z α/2 από τον αντίστοιχο στατιστικό πίνακα για την τυπική κανονική κατανοµή Υπολογισµός του διαστήµατος [ x z α/2 σ n, x + z α/2 σ n ], όπου το σ είναι γνωστό, το x υπολογίζεται από το δείγµα των n παρατηρήσεων. Παράδειγµα 2.4 Θέλουµε να εκτιµήσουµε διάστηµα εµπιστοσύνης σε επίπεδο 95% για το µέσο όριο έντασης ηλεκτρικού ϱεύµατος για ασφάλειες των 40 αµπέρ που παράγει η εταιρία Α από τα δεδοµένα του Πίνακα 2.. Υποθέτουµε ότι από παλιότερες µετρήσεις γνωρίζουµε ότι η διασπορά για αυτό το όριο είναι σ 2 = (αµπέρ) 2. Το δείγµα είναι µικρό (n = 25 < 30). Εξετάζουµε τη δειγµατική κατανοµή του ορίου έντασης ηλεκτρικού ϱεύµατος από τα δεδοµένα µας. Γι αυτό σχεδιάζουµε το ιστόγραµµα και το ϑηκόγραµ- µα των δεδοµένων του Πίνακα 2., τα οποία παρουσιάζονται στο Σχήµα 2.2. Από το ιστόγραµµα και το ϑηκόγραµµα ϐλέπουµε ότι η κατανοµή του ορίου έντασης ηλεκτρικού ϱεύµατος ϕαίνεται να είναι κανονική (είναι συµµετρική και δεν έχει µακριές ουρές). Ειδικά για το ϑηκόγραµµα ϕαίνεται να τηρούνται τα τρία χαρακτηριστικά που συνιστούν κανονική κατανοµή όπως τα ϑέσαµε στην Παράγραφο.2: Η διάµεσος δεν τείνει προς το Q ή το Q 3. Οι µύστακες έχουν περίπου το ίδιο µήκος. εν υπάρχουν ακραίες τιµές ή αποµακρισµένες τιµές.

12 30 ΕΚΤΙΜΗΣΗ ΠΑΡΑΜΕΤΡΩΝ συχνoτητα Iστoγραµµα oριoυ ρευµατος για ασφαλειες εταιρειας A ευρoς Θηκoγραµµα oριoυ ρευµατος για ασφαλειες εταιριας A A Σχήµα 2.2: Ιστόγραµµα και ϑηκόγραµµα των δεδοµένων του ορίου έντασης ηλεκτρικού ϱεύ- µατος για ασφάλειες της εταιρίας Α του Πίνακα2.. Αρα µπορούµε να υποθέσουµε ότι το όριο έντασης ηλεκτρικού ϱεύµατος X ακολουθεί κανονική κατανοµή N(µ, ) και τότε η δειγµατική µέση τιµή x του ορίου έντασης ηλεκτρικού ϱεύµατος ακολουθεί επίσης κανονική κατανοµή N(µ, /25), όπου n = 25 είναι το µέγεθος του δείγµατος. Για την εκτίµηση του δ.ε. της µ ακολουθούµε τα παρακάτω ϐήµατα:. Το επίπεδο εµπιστοσύνης είναι α = 0.95 (α = 0.05). 2. Από τον στατιστικό πίνακα έχουµε z = Φ (0.975) = Η διασπορά είναι γνωστή, σ 2 = (αµπέρ) 2. Η δειγµατική µέση τιµή έχει υπολογιστεί στο Παράδειγµα 2. και είναι x = αµπέρ. Το 95% δ.ε. για τη µέση τιµή µ είναι ±.96 5 [39.4, 40.20]. Αρα το 95% δ.ε. του µέσου ορίου έντασης ηλεκτρικού ϱεύµατος για ασφάλειες των 40 αµπέρ της εταιρίας Α µε ϐάση το δείγµα είναι [39.4, 40.20]. Μπορούµε να πούµε ότι η σηµειακή εκτίµηση x = είναι αρκετά ακριβής αφού το αντίστοιχο 95% δ.ε. είναι αρκετά µικρό. Επίσης παρατηρούµε ότι το 95% δ.ε. περιέχει το 40, δηλαδή µε 95% εµπιστοσύνη µπορούµε να συµπεράνουµε ότι κατά µέσο όρο οι ασφάλειες που παράγει η εταιρία Α διασφαλίζουν την ένδειξη τους και καίγονται πράγµατι σε ένταση ηλεκτρικού ϱεύµατος 40 αµπέρ. Άγνωστη διασπορά Γενικά η διασπορά σ 2 της τ.µ. X είναι άγνωστη και την εκτιµούµε από το δείγµα µε τη δειγµατική διασπορά s 2 (π.χ. δες την (2.4) που χρησιµοποιούµε για τους υπολογισµούς). Μεγάλο n Αν το δείγµα είναι µεγάλο (n > 30) η εκτιµήτρια s 2 είναι αρκετά ακριβής κι απλά µπορούµε να αντικαταστήσουµε τη διασπορά σ 2 µε τη δειγµατική διασπορά s 2 στην παραπάνω διαδικασία

13 ΕΚΤΙΜΗΣΗ ΠΑΡΑΜΕΤΡΩΝ 3 για να πάρουµε το διάστηµα εµπιστοσύνης για τη µ. Άρα για µεγάλο n κι άγνωστη διασπορά η διαδικασία υπολογισµού του δ.ε. της µ δίνεται ως εξής. δ.ε. για µ: άγνωστη διασπορά και n µεγάλο Επιλογή του επιπέδου εµπιστοσύνης α Υπολογισµός του z α/2 από τον αντίστοιχο στατιστικό πίνακα για την τυπική κανονική κατανοµή Υπολογισµός του διαστήµατος [ x z α/2 s n, x + z α/2 s n ], όπου το s υπολογίζεται από το δείγµα των n παρατηρήσεων, το x υπολογίζεται από το δείγµα των n παρατηρήσεων. Μικρό n Αν το δείγµα είναι µικρό τότε η προσέγγιση δεν είναι καλή και το διάστηµα µπορεί να είναι αρκετά ανακριβές ακόµα κι αν γνωρίζουµε ότι η τ.µ. X ακολουθεί κανονική κατανοµή N(0,) t 5 t 24 t 50 f (x) X x Σχήµα 2.3: Συνάρτηση πυκνότητας πιθανότητας για την τυπική κανονική κατανοµή και την κατανοµή student µε 5, 24 και 50 ϐαθµούς ελευθερίας, όπως δείχνει το επεξήγηµα των γραµ- µών. Για µικρό n και υποθέτοντας πως η τ.µ. X ακολουθεί κανονική κατανοµή, η τ.µ. t που ορίζεται ως t x µ s/ ακολουθεί την κατανοµή student ή t-κατανοµή µε v = n ϐαθµούς n ελευθερίας t x µ s/ n t n. κατανοµή αυτή µοιάζει µε την τυπική κανονική κατανοµή και την προσεγγίζει καθώς αυξάνει ο αριθµός των ϐαθµών ελευθερίας όπως ϕαίνεται στο Σχήµα 2.3. Για µεγάλο n η προσέγγιση είναι πολύ καλή κι οι τιµές των t και z είναι πρακτικά ίδιες.

14 32 ΕΚΤΙΜΗΣΗ ΠΑΡΑΜΕΤΡΩΝ Η διαδικασία για την εκτίµηση του διαστήµατος εµπιστοσύνης είναι όπως παραπάνω αλλά η κρίσιµη τιµή είναι t n, α/2 αντί για z α/2 και τη ϐρίσκουµε από το στατιστικό πίνακα της κατανοµής student. [Η κρίσιµη τιµή της t ορίζεται από το α/2 αλλά και από τους ϐαθµούς ελευθερίας v = n. Στο Σχήµα2.4 παρουσιάζεται η κατανοµή student για v = 24 και οι κρίσιµες τιµές της για α = 0.95.] Το διάστηµα εµπιστοσύνης σε επίπεδο α είναι f X (x) t 24,0.025 = t 24,0.975 = x Σχήµα 2.4: Συνάρτηση πυκνότητας πιθανότητας για την κατανοµή student µε 24 ϐαθµούς ελευθερίας κι η δεξιά κι αριστερή κρίσιµη τιµή της για α = x ± t n, α/2 s n ή [ x t n, α/2 s n, x + t n, α/2 s n ]. (2.3) Αναλυτικά η διαδικασία υπολογισµού του δ.ε. της µ δίνεται ως εξής. δ.ε. για µ: άγνωστη διασπορά, µικρό n και X N(µ, σ 2 ) Επιλογή του επιπέδου εµπιστοσύνης α Υπολογισµός του t n, α/2 από τον αντίστοιχο στατιστικό πίνακα για την κατανοµή student Υπολογισµός του διαστήµατος x ± t n, α/2 s n, όπου το s υπολογίζεται από το δείγµα των n παρατηρήσεων. το x υπολογίζεται από το δείγµα των n παρατηρήσεων. Παράδειγµα 2.5 Για το προηγούµενο παράδειγµα 2.4 υποθέτουµε πως η διασπορά είναι άγνωστη (που είναι και η πιο πιθανή περίπτωση για το πραγµατικό πρόβληµα). Το δείγµα είναι αρκετά µεγάλο (n = 25) κι ίσως ϑα µπορούσαµε να υποθέσουµε πως η x σαν τ.µ. ακολουθεί κανονική κατανοµή και να χρησιµοποιήσουµε στους υπολογισµούς του διαστήµατος εµπιστοσύνης την κρίσιµη τιµή z α/2. Για να εκτιµήσουµε όµως το διάστηµα εµπιστοσύνης για το µέσο όριο έντασης ηλεκτρικού ϱεύµατος της ασφάλειας µε την καλύτερη δυνατή ακρίβεια χρησιµοποιούµε την κρίσιµη τιµή t n, α/2 από την κατανοµή student.

15 ΕΚΤΙΜΗΣΗ ΠΑΡΑΜΕΤΡΩΝ 33 Στο Παράδειγµα 2. είχαµε υπολογίσει από το δείγµα των 25 ασφαλειών τη δειγµατική µέση x = αµπέρ και τη δειγµατική διασπορά s 2 = (αµπέρ) 2. Από το στατιστικό πίνακα για την κατανοµή student, για α/2 = και n = 24, ϐρίσκουµε t 24,0.975 = και το δ.ε. για τη µ είναι ± [39.42, 40.8]. 5 Η χρήση της κρίσιµης τιµής t 24, = υπαγορεύεται από τη χρήση της εκτίµησης s 2 αντί της πραγµατικής διασποράς σ 2 που δεν τη γνωρίζουµε. Αν αποφασίζαµε εσφαλµένα να χρησιµοποιήσουµε στους παραπάνω υπολογισµούς τη z =.96 της κανονικής κατανοµής ϑα ϐρίσκαµε το διάστηµα [39.44, 40.6] πού είναι ελάχιστα µικρότερο (αφού z < t 24, ). Το διάστηµα όµως αυτό δεν είναι ακριβές γιατί κάναµε την υπόθεση για κανονική κατανοµή της x που δεν εφαρµόζεται στην περίπτωση που η διασπορά είναι άγνωστη και το δείγµα είναι µικρό. Γενικά όταν τον n δεν είναι µεγάλο το διάστηµα εµπιστοσύνης της x που παίρνουµε υποθέτοντας ότι η x ακολουθεί κατανοµή student είναι πιό µεγάλο από αυτό που παίρνουµε υποθέτοντας ότι η x ακολουθεί κανονική κατανοµή και η διασπορά παραµένει η ίδια. Μη κανονική κατανοµή και µικρά δείγµατα Σε κάποιες περιπτώσεις το δείγµα µπορεί να είναι µικρό και η κατανοµή της τ.µ. X που παρατηρούµε να µην είναι κανονική. [ Οταν δε ξέρουµε τίποτε για την κατανοµή της X αυτό το εκτιµούµε από τα δεδοµένα του δείγµατος, π.χ. από τη µορφή του ιστογράµµατος των δεδοµένων.] Σε µια τέτοια περίπτωση (κι ανεξάρτητα από το αν η διασπορά είναι γνωστή ή όχι) δε µπορούµε να υποθέσουµε πως η x ακολουθεί κάποια συγκεκριµένη κατανοµή και στη συνέχεια να εκτιµήσουµε διάστηµα εµπιστοσύνης για τη µέση τιµή µ. Οταν η κατανοµή δεν είναι κανονική δεν είναι και συµµετρική. Σε τέτοιες περιπτώσεις ενδιαφερόµαστε για τη διάµεσο δ = δ X της τ.µ. X αντί της µ = µ X. Η σηµειακή εκτίµηση x της δ είναι απλά η κεντρική τιµή των παρατηρήσεων διαταγµένες σε αύξουσα σειρά (δες Παράγραφο.2.). Το διάστηµα εµπιστοσύνης για τη δ ϐρίσκεται µε τη µέθοδο Wilcoxon που ϐασίζεται στην τάξη των παρατηρήσεων παρά στις τιµές τους. Αυτή η εκτίµηση διαστήµατος εµπιστοσύνης λέγεται µη παραµετρική (επειδή δεν υποθέτουµε κάποια κατανοµή και τις παραµέτρους της για την εκτιµήτρια). Παρατηρήσεις Γενικά ϑα ϑέλαµε το διάστηµα εµπιστοσύνης να είναι όσο το δυνατό µικρότερο για να έχουµε όσο το δυνατόν πιο ακριβή σηµειακή εκτίµηση. Το διάστηµα εµπιστοσύνης εξαρτάται από: την κατανοµή και τη διασπορά σ 2 της τ.µ. X [αυτά δε µπορούµε να τα αλλάξουµε, είναι χαρακτηριστικά της τ.µ. που µελετάµε]. το µέγεθος n του δείγµατος [αύξηση του n έχει σαν αποτέλεσµα τη µείωση του εύρους του δ.ε., που είναι ϕυσικά επιθυµητό αλλά όχι πάντοτε εφικτό, αφού η απόκτηση πολλών παρατηρήσεων µπορεί να είναι εργασία επίπονη και πολυέξοδη]. το επίπεδο εµπιστοσύνης α [αυτό το καθορίζουµε εµείς, αλλά δε ϑα ϑέλαµε να µικρύνουµε το διάστηµα µειώνοντας την εµπιστοσύνη µας σ αυτό γιατί τότε τα αποτελέσµατά µας δε ϑα είχαν την επιθυµητή στατιστική σηµαντικότητα]. Το επίπεδο εµπιστοσύνης που συνήθως χρησιµοποιείται στην πράξη είναι 95%.

16 34 ΕΚΤΙΜΗΣΗ ΠΑΡΑΜΕΤΡΩΝ Στον Πίνακα 2.2 συνοψίζεται η εκτίµηση του διαστήµατος εµπιστοσύνης της µ στις διάφορες περιπτώσεις. διασπορά κατανοµή της X n κατανοµή της x διάστηµα εµπιστοσύνης γνωστή κανονική z x µ σ/ n N(0, ) x ± z α/2 σ n γνωστή µη κανονική µεγάλο z x µ σ/ n N(0, ) x ± z α/2 σ n γνωστή µη κανονική µικρό άγνωστη µεγάλο z x µ s/ n N(0, ) x ± z α/2 s n άγνωστη κανονική µικρό t x µ s/ n t n x ± t n,α/2 s n άγνωστη µη κανονική µικρό Πίνακας 2.2: Εκτίµηση του διαστήµατος εµπιστοσύνης της µ ανάλογα µε τη γνώση της διασποράς και κατανοµής της τ.µ. X και το µέγεθος n του δείγµατος. Εύρος διαστήµατος εµπιστοσύνης Πολλές ϕορές πριν να κάνουµε το πείραµα και συλλέξουµε τις µετρήσεις προκαθορίζουµε ένα συγκεκριµένο εύρος για το δ.ε. ή Ϲητάµε το εύρος του δ.ε. να µην ξεπερνάει κάποιο ανώτατο όριο για να έχουν νόηµα τα αποτελέσµατα. Για να το πετύχουµε αυτό χωρίς να αλλάξουµε τη σηµαντικότητα των στατιστικών αποτελεσµάτων, ϐρίσκουµε το µέγεθος n του δείγµατος που µας δίνει αυτό το εύρος του δ.ε. Αυτό υπολογίζεται ϑέτοντας το εύρος του δ.ε. ίσο µε την τιµή που Ϲητάµε και λύνοντας την εξίσωση ως προς το n. Για παράδειγµα, ας υποθέσουµε πως το δείγµα είναι µικρό και η τ.µ. X ακολουθεί κανονική κατανοµή µε άγνωστη διασπορά, χρησιµοποιούµε δηλαδή τη σχέση (2.3) για να υπολογίσουµε το δ.ε. της µέσης τιµής µ. Το εύρος του δ.ε. είναι w = 2 t n, α/2 s n (2.4) και λύνοντας ως προς n ϐρίσκουµε ότι για να είναι το εύρος του δ.ε. ίσο µε w πρέπει το δείγµα να έχει µέγεθος ( n = 2 t n, α/2 s ) 2. (2.5) w Στην παραπάνω σχέση η τιµή t n, α/2 δεν είναι γνωστή αφού το n είναι άγνωστο και Ϲητούµενο. Θα πρέπει λοιπόν να χρησιµοποιήσουµε την τιµή t n, α/2 που συµφωνεί καλύτερα µε το αποτέλεσµα για το n από την (2.5). Αν το n παίρνει µεγάλες τιµές το παραπάνω πρόβληµα δεν υφίσταται αφού για µεγάλα n η κρίσιµη τιµή t n, α/2 είναι πρακτικά ίδια µε την αντίστοιχη κρίσιµη τιµή της τυπικής κανονικής κατανοµής z α/2. Άρα για µεγάλο n η σχέση (2.5) δίνεται ως ( n = 2 z α/2 s ) 2. (2.6) w Παράδειγµα 2.6 Στο προηγούµενο παράδειγµα για το όριο έντασης ηλεκτρικού ϱεύµατος που καίγονται οι ασφάλειες 40 αµπέρ υπολογίσαµε το 95% δ.ε. του µέσου ορίου έντασης κάνοντας χρήση της κατανοµή student και ϐρήκαµε ότι είναι [39.42, 40.8] αµπέρ. Το εύρος του δ.ε. είναι

17 ΕΚΤΙΜΗΣΗ ΠΑΡΑΜΕΤΡΩΝ 35 w = = 0.76 αµπέρ. Αν ϑέλουµε το εύρος του δ.ε. να µην ξεπερνάει 0.5 αµπέρ τότε αντί για 25 ασφάλειες πρέπει να δοκιµάσουµε ( ) n = 2.96 = , 0.5 δηλαδή πρέπει να αυξήσουµε το δείγµα σε 53 ασφάλειες (στρογγυλοποιούµε πάντα στον αµέσως µεγαλύτερο ακέραιο) ιάστηµα εµπιστοσύνης της διασποράς σ 2 Οπως για να ϐρούµε διάστηµα εµπιστοσύνης για τη µέση τιµή µ ορίσαµε πρώτα την κατανοµή της εκτιµήτριας x έτσι και για να ϐρούµε διάστηµα εµπιστοσύνης για τη διασπορά σ 2 ορίζουµε πρώτα την κατανοµή της αµερόληπτης εκτιµήτριας s 2 της σ 2 (σχέση (2.2)). Γνωρί- Ϲουµε ότι η χ 2 (n )s2 ακολουθεί την κατανοµή X 2 µε v = n ϐαθµούς ελευθερίας σ 2 χ 2 (n )s2 σ 2 X 2 n. Στο Σχήµα 2.5 παρουσιάζεται η µορφή της κατανοµής X 2 για χαρακτηριστικούς ϐαθµούς ελευ- ϑερίας. Για λίγους ϐαθµούς ελευθερίας η κατανοµή X 2 είναι αρκετά λοξή και γίνεται πιο X f X (x) X 2 24 X x Σχήµα 2.5: Συνάρτηση πυκνότητας πιθανότητας για την κατανοµή X 2 µε 5, 24 και 50 ϐαθµούς ελευθερίας. συµµετρική καθώς αυξάνουν οι ϐαθµοί ελευθερίας. Για πολύ µεγάλο n η X 2 προσεγγίζει την κανονική κατανοµή. Για δοθείσα πιθανότητα α µπορούµε να ϐρούµε από τον στατιστικό πίνακα για τη κατανοµή X 2 τις δύο κρίσιµες τιµές χ 2 n,α/2 και χ2 n, α/2 για τις οποίες ισχύει P(χ 2 n,α/2 < χ2 < χ 2 n, α/2 ) = α. (2.7) Επειδή η X 2 δεν είναι συµµετρική έχουµε δύο κρίσιµες τιµές: την αριστερή κρίσιµη τιµή χ 2 n,α/2 που είναι τέτοια ώστε P(χ 2 < χ 2 n,α/2) = α/2

18 36 ΕΚΤΙΜΗΣΗ ΠΑΡΑΜΕΤΡΩΝ και τη δεξιά κρίσιµη τιµή χ 2 n, α/2 που είναι τέτοια ώστε P(χ 2 < χ 2 n, α/2 ) = α/2. [Οι δείκτες α/2 και α/2 των κρίσιµων τιµών είναι κι οι τιµές της αντίστοιχης αθροιστικής συνάρτησης κατανοµής.] Στο Σχήµα 2.6 παρουσιάζεται η κατανοµή X 2 για n = 24 ϐαθµούς ελευθερίας καθώς κι οι κρίσιµες τιµές της για α = X f X (x) X 2 24,0.025 = 2.4 X 2 24,0.975 = x Σχήµα 2.6: Συνάρτηση πυκνότητας πιθανότητας για την κατανοµή X 2 µε 24 ϐαθµούς ελευ- ϑερίας κι η δεξιά κι αριστερή κρίσιµη τιµή της για α = Στη σχέση (2.7), λύνοντας τις δύο ανισότητες χ 2 n,α/2 < (n )s2 σ 2 χ 2 n, α/2 ως προς σ 2 ϐρίσκουµε το ( α)% διάστηµα εµπιστοσύνη για τη σ 2 [ ] (n )s 2 (n )s2,, χ 2 n, α/2 χ 2 (2.8) n,α/2 όπου η δειγµατική διασπορά s 2 υπολογίζεται από το δείγµα των n παρατηρήσεων. Αναλυτικά η διαδικασία υπολογισµού του δ.ε. της σ 2 δίνεται ως εξής. δ.ε. για σ 2 : X N(µ, σ 2 ) Επιλογή του επιπέδου εµπιστοσύνης α Υπολογισµός των χ 2 n,α/2 και χ2 n, α/2 από τον αντίστοιχο στατιστικό πίνακα για την κατανοµή X 2 Υπολογισµός του διαστήµατος [ (n )s 2, χ 2 n, α/2 ] (n )s 2, όπου χ 2 n,α/2 το s 2 υπολογίζεται από το δείγµα των n παρατηρήσεων.

19 ΕΚΤΙΜΗΣΗ ΠΑΡΑΜΕΤΡΩΝ 37 Το 95% δ.ε. για την τυπική απόκλιση σ έχει σαν άκρα τις τετραγωνικές ϱίζες των αντίστοιχων άκρων του 95% δ.ε. για τη διασπορά σ 2. Παράδειγµα 2.7 Από τα δεδοµένα για το όριο έντασης ηλεκτρικού ϱεύµατος ασφάλειας της εταιρίας Α στον Πίνακα 2. ϑέλουµε να εκτιµήσουµε τη διασπορά σ 2 του ορίου έντασης. Η σηµειακή εκτίµηση ϐρέθηκε να είναι s 2 = (αµπέρ) 2. Για n = 24 και α = 0.05 από τον στατιστικό πίνακα για τη X 2 ϐρίσκουµε χ 2 24, = 2.4 και χ2 24, = 39.4 (δες επίσης Σχήµα 2.6). Το 95% δ.ε. για τη σ 2 είναι [ , 39.4 ] = [0.52,.65]. 2.4 Το 95% δ.ε. για την τυπική απόκλιση σ του ορίου ηλεκτρικού ϱεύµατος είναι [ 0.52,.65] = [0.72,.28]. Στο παραπάνω παράδειγµα παρατηρούµε ότι η εκτίµηση s 2 = (αµπέρ) 2 είναι πιο κοντά στο αριστερό άκρο του διαστήµατος εµπιστοσύνης. Γενικά το διάστηµα εµπιστοσύνης για τη διασπορά σ 2 δεν είναι συµµετρικό ως προς τη σηµειακή εκτίµηση s 2 κι αυτό γιατί η κατανοµή X 2 δεν είναι συµµετρική όπως είναι η κανονική κατανοµή κι η κατανοµή student. Οσο αυξάνουν όµως οι ϐαθµοί ελευθερίας (δηλαδή το µέγεθος δείγµατος) η X 2 κατανοµή προσεγγίζει την κανονική κατανοµή (δες Σχήµα 2.5). Γι αυτό για πολύ µεγάλα δείγµατα το διάστηµα εµπιστοσύνης µπορεί να υπολογισθεί κι από άλλο τύπο που περιέχει κρίσιµες τιµές της τυπικής κανονικής κατανοµής ιάστηµα εµπιστοσύνης της διαφοράς δύο µέσων τιµών µ µ 2 Θέλουµε να εκτιµήσουµε τη διαφορά των µέσων τιµών µ και µ 2 δύο ανεξάρτητων τ.µ. X και X 2 έχοντας δύο δείγµατα µεγέθους n και n 2 από τον πληθυσµό της X και τον πληθυσµό της X 2 αντίστοιχα. Η σηµειακή εκτίµηση της διαφοράς µ µ 2 είναι απλά η διαφορά των δειγµατικών µέσων τιµών x x 2. Για το διάστηµα εµπιστοσύνης της διαφοράς µ µ 2 πρέπει να ελέγξουµε την κατανοµή της εκτιµήτριας x x 2, όπως κάναµε στην εκτίµηση διαστήµατος εµπιστοσύνης για τη µέση τιµή µ. Γνωστές διασπορές Θεωρούµε ότι γνωρίζουµε τις διασπορές σ 2 και σ2 2 των X και X 2. Υποθέτουµε επίσης ότι τα δείγµατα είναι αρκετά µεγάλα ή η κατανοµή των X και X 2 είναι κανονική. Τότε η εκτιµήτρια x x 2 ακολουθεί κανονική κατανοµή µε µέση τιµή και διασπορά µ x x 2 E( x x 2 ) = µ µ 2 σ 2 x x 2 Var( x x 2 ) = σ2 n + σ2 2 n 2. Αν οι X και X 2 είναι οµοσκεδαστικές, δηλαδή σ 2 = σ 2 2 = σ 2, τότε η διασπορά είναι σ 2 ( n + n 2 ).

20 38 ΕΚΤΙΜΗΣΗ ΠΑΡΑΜΕΤΡΩΝ Η διαδικασία είναι ίδια όπως για την εύρεση του διαστήµατος εµπιστοσύνης για τη µέση τιµή µ αν κάνουµε τις παρακάτω αντικαταστάσεις: εκτιµήτρια x x x 2 µέση τιµή εκτιµήτριας µ µ µ 2 σ 2 διασπορά εκτιµήτριας n σ2 + σ2 2. n n 2 Εποµένως το διάστηµα εµπιστοσύνης της διαφοράς µ µ 2 είναι σ 2 ( x x 2 ) ± z α/2 + σ2 2. (2.9) n n 2 δ.ε. για µ µ 2 : γνωστές διασπορές και είτε n,n 2 µεγάλα ή X N(µ, σ 2 ) και X 2 N(µ 2, σ 2 2) Επιλογή του επιπέδου εµπιστοσύνης α Υπολογισµός του z α/2 από τον αντίστοιχο στατιστικό πίνακα για την τυπική κανονική κατανοµή Υπολογισµός του διαστήµατος ( x x 2 ) ± z α/2 σ 2 n + σ2 2 n 2, όπου το σ 2 και σ2 2 είναι γνωστά και το x και x 2 υπολογίζονται από τα δείγµατα των n και n 2 παρατηρήσεων. Συχνά στην πράξη µε την εκτίµηση του διαστήµατος εµπιστοσύνης της διαφοράς µ µ 2 ϑέλουµε να διαπιστώσουµε αν κατά µέσο όρο η µια τ.µ. είναι διαφορετική (µεγαλύτερη ή µικρότερη) από την άλλη. Στη συνέχεια, αν διαπιστώσουµε πως η διαφορά είναι στατιστικά σηµαντική, το διάστηµα εµπιστοσύνης δίνει επίσης εκτίµηση του µεγέθους αυτής της διαφοράς. Το διάστηµα εµπιστοσύνης λοιπόν το ερµηνεύουµε ως εξής: Αν περιέχει το µηδέν τότε δε µπορούµε να πούµε ότι οι µέσες τιµές των τ.µ. X και X 2 διαφέρουν µε στατιστική σηµαντικότητα για το επίπεδο σηµαντικότητας α που χρησι- µοποιήσαµε και µε ϐάση τα συγκεκριµένα δεδοµένα. Αν είναι ϑετικό τότε µπορούµε να πούµε πως για το επίπεδο εµπιστοσύνης α που χρησιµοποιήσαµε η τ.µ. X είναι κατά µέσο όρο µεγαλύτερη από τη X 2 κατά ένα ποσό που καθορίζεται από τα όρια του διαστήµατος που εκτιµήσαµε. Αντίστοιχα ερµηνεύουµε το διάστηµα εµπιστοσύνης όταν είναι αρνητικό. Παράδειγµα 2.8 Ενδιαφερόµαστε να διαπιστώσουµε αν το όριο έντασης ηλεκτρικού ϱεύµατος που καίγονται ασφάλειες 40 αµπέρ της εταιρίας Α είναι κατά µέσο όρο διαφορετικό από το όριο για ίδιου τύπου ασφάλειες κατασκευασµένες από µια άλλη εταιρία Β. Γι αυτό ϑέλουµε να

21 ΕΚΤΙΜΗΣΗ ΠΑΡΑΜΕΤΡΩΝ 39 εκτιµήσουµε το 95% δ.ε. για τη διαφορά των µέσων τιµών µ και µ 2 του ορίου έντασης ηλεκτρικού ϱεύµατος για τις ασφάλειες της εταιρίας Α και της εταιρίας Β αντίστοιχα. ίνεται ότι η διασπορά είναι κοινή και γνωστή και είναι σ 2 = (αµπέρ) 2. Στον Πίνακα 2. παρουσιάζονται 25 µετρήσεις του ορίου έντασης ηλεκτρικού ϱεύµατος για τις ασφάλειες 40 αµπέρ της εταιρίας Α και 20 µετρήσεις σε ασφάλειες της εταιρίας Β. Στο Παράδειγµα 2.4 είδαµε µε τη ϐοήθεια ιστογράµµατος και ϑηκογράµµατος (Σχήµα 2.2) πως το ό- ϱιο έντασης ηλεκτρικού ϱεύµατος για τις ασφάλειες της εταιρίας Α ϑα µπορούσε να ακολουθεί κανονική κατανοµή. Από το ιστόγραµµα και το ϑηκόγραµµα του Σχήµατος 2.7 µπορούµε να πούµε το ίδιο και για το όριο ηλεκτρικού ϱεύµατος για τις ασφάλειες της εταιρίας Β. Αρα µ- συχνoτητα Iστoγραµµα oριoυ ρευµατος για ασφαλειες εταιρειας B Θηκoγραµµατα oριoυ ρευµατος για ασφαλειες ευρoς A B Σχήµα 2.7: Ιστόγραµµα των δεδοµένων του ορίου έντασης ηλεκτρικού ϱεύµατος για ασφάλειες των 40 αµπέρ της εταιρίας Β του Πίνακα2. και ϑηκογράµµατα των δεδοµένων του ορίου έντασης ηλεκτρικού ϱεύµατος για ασφάλειες των 40 αµπέρ των δύο εταιριών από τον ίδιο πίνακα. πορούµε να υποθέσουµε πως οι τ.µ. του ορίου έντασης ηλεκτρικού ϱεύµατος X και X 2 και για τους δύο πληθυσµούς, δηλαδή τις ασφάλειες 40 αµπέρ και των δύο εταιριών, ακολουθούν κανονική κατανοµή. Συγκρίνοντας τα ϑηκογράµµατα για τις ασφάλειες των εταιριών Α και Β (δες Σχήµα 2.7) ϕαίνεται ότι η κεντρική τάση (εδώ διάµεσος) του ορίου έντασης ηλεκτρικού ϱεύµατος για τις ασφάλειες της εταιρίας Β είναι υψηλότερη από αυτή για τις ασφάλειες της εταιρίας Α, αλλά ίσως όχι σηµαντικά αφού οι δύο ϑήκες (τα διαστήµατα των 50% κεντρικών τιµών του κάθε δείγµατος) επικαλύπτονται κατά µεγάλο ποσοστό. Στη συνέχεια ϑα εξετάσουµε αν αυτή η διαφορά είναι στατιστικά σηµαντική κάνοντας χρήση του διαστήµατος εµπιστοσύνης της µ µ 2. Οι δειγµατικές µέσες τιµές υπολογίζονται σε x = αµπέρ και x 2 = αµπέρ. Η διαφορά τους είναι x x 2 = 0.77 αµπέρ. Από τη σχέση (2.9), όπου z α/2 = z =.96 και σ 2 = σ2 2 = σ2 = ϐρίσκουµε ότι το 95% δ.ε. είναι 0.77 ±.96 ( 25 + ) 20 [.36, 0.8]. Συµπεραίνουµε λοιπόν πως σε επίπεδο εµπιστοσύνης 95% µπορούµε να πούµε πως το µέσο όριο έντασης ηλεκτρικού ϱεύµατος διαφέρει σηµαντικά στις ασφάλειες των δύο εταιριών. Συγκεκριµένα οι ασφάλειες των 40 αµπέρ της εταιρίας Α καίγονται κατά µέσο όρο σε µικρότερη ένταση

22 40 ΕΚΤΙΜΗΣΗ ΠΑΡΑΜΕΤΡΩΝ ηλεκτρικού ϱεύµατος από ότι οι ασφάλειες της εταιρίας Β, κατά ποσό µεταξύ 0.8 και.36 αµπέρ. Άγνωστες διασπορές Συνήθως όταν δε γνωρίζουµε τις µ, µ 2 αγνοούµε και τις σ 2, σ2 2. Μεγάλο n Οταν τα δείγµατα είναι µεγάλα (n > 30 και n 2 > 30) µπορούµε να αντικαταστήσουµε στη σχέση (2.9) τις σ 2, σ2 2 µε τις δειγµατικές µέσες τιµές s2, s2 2 και να εκτιµήσουµε έτσι το διάστηµα εµπιστοσύνης για τη διαφορά µ µ 2. δ.ε. για µ µ 2 : άγνωστες διασπορές και n,n 2 µεγάλα Επιλογή του επιπέδου εµπιστοσύνης α Υπολογισµός του z α/2 από τον αντίστοιχο στατιστικό πίνακα για την τυπική κανονική κατανοµή Υπολογισµός του διαστήµατος ( x x 2 ) ± z α/2 s 2 n + s2 2 n 2, όπου το x και x 2 υπολογίζονται από τα δείγµατα των n και n 2 παρατηρήσεων. το s 2 και s2 2 υπολογίζονται επίσης από τα δείγµατα. Μικρό n Οταν το µέγεθος του ενός ή και των δύο δειγµάτων είναι µικρό η εκτίµηση του διαστήµατος εµπιστοσύνης είναι πιο περίπλοκη. Στην περίπτωση που οι κατανοµές των X και X 2 δε δίνονται να είναι κανονικές (ή δεν προκύπτει από τη περιγραφική µελέτη των δεδοµένων), δε µπορούµε γενικά να προσδιορίσουµε την κατανοµή της διαφοράς x x 2 για να εκτιµήσουµε έτσι το διάστηµα εµπιστοσύνης και πρέπει να χρησιµοποιήσουµε τη µή-παραµετρική προσέγγιση. Υποθέτουµε λοιπόν πως οι κατανοµές των X και X 2 είναι κανονικές κι επιπλέον οµοσκεδαστικές (σ 2 = σ 2 2 = σ 2 ). Σ αυτήν την περίπτωση ορίζουµε πρώτα τη δειγµατική κοινή διασπορά s 2 p ως συνάρτηση των s 2 και s2 2 s 2 p = (n )s 2 + (n 2 )s 2 2. (2.20) n + n 2 2 Μπορεί να δειχθεί ότι η s 2 p είναι αµερόληπτη εκτιµήτρια της κοινής διασποράς σ2. Με τη ( ϐοήθεια της s 2 p η εκτίµηση της διασποράς της διαφοράς x x 2 είναι s 2 n + n 2 ). Για την εκτιµήτρια x x 2 µπορούµε να ορίσουµε τον παρακάτω µετασχηµατισµό που ακολουθεί κατανοµή student µε n + n 2 2 ϐαθµούς ελευθερίας t ( x x 2 ) (µ µ 2 ) t n +n 2 2 s p n + n 2 από το οποίο προκύπτει πως το ( α)% δ.ε. της διαφοράς µ µ 2 είναι ( x x 2 ) ± t n +n 2 2, α/2 s p n + n 2. (2.2)

23 ΕΚΤΙΜΗΣΗ ΠΑΡΑΜΕΤΡΩΝ 4 δ.ε. για µ µ 2 : άγνωστες και ίσες διασπορές, n,n 2 µικρά και X N(µ, σ 2 ) και X 2 N(µ 2, σ 2 2) Επιλογή του επιπέδου εµπιστοσύνης α Υπολογισµός του t n +n 2 2, α/2 από τον αντίστοιχο στατιστικό πίνακα για την κατανοµή student Υπολογισµός του διαστήµατος ( x x 2 )±t n +n 2 2, α/2 s p n + n 2, όπου το x και x 2 υπολογίζονται από τα δείγµατα των n και n 2 παρατηρήσεων. το s 2 και s2 2 υπολογίζονται επίσης από τα δείγµατα. Παράδειγµα 2.9 Για το προηγούµενο παράδειγµα ας υποθέσουµε πως η διασπορά του ορίου έντασης ηλεκτρικού ϱεύµατος για τις ασφάλιες 40 αµπέρ των δύο εταιριών Α και Β είναι άγνωστη. Από τα δύο ιστογράµµατα και ϑηκογράµµατα στα Σχήµατα 2.2 και 2.7 µπορούµε να δεχτούµε ότι οι τ.µ. ορίου έντασης ηλεκτρικού ϱεύµατος για τις ασφάλειες και των δύο εταιριών ακολουθούν κανονική κατανοµή και µάλιστα έχουν την ίδια διασπορά (το εύρος των τιµών των δύο δειγµάτων είναι περίπου το ίδιο). Επειδή όµως τα δείγµατα είναι σχετικά µικρά ϑα υποθέσουµε ότι η διαφορά x x 2 ακολουθεί κατανοµή student κι όχι κανονική. Η δειγµατική διασπορά του ορίου έντασης ηλεκτρικού ϱεύµατος για τις ασφάλειες της εταιρίας Α είναι s 2 = (αµπέρ)2 και για την εταιρεία Β είναι s 2 2 = (αµπέρ)2 (σχετικά κοντά). Εφαρµόζοντας τη σχέση (2.20) ϐρίσκουµε ότι η δειγµατική κοινή διασπορά είναι (n = 25 και n 2 = 20) s 2 (25 ) (20 ) p = = αµπέρ Οι ϐαθµοί ελευθερίας είναι n +n 2 2 = 43 και για επίπεδο εµπιστοσύνης 95% ϐρίσκουµε από τον στατιστικό πίνακα για την κατανοµή student την κρίσιµη τιµή t 43, = 2.02 (πολύ κοντά στην αντίστοιχη κρίσιµη τιµή z =.96 της τυπικής κανονικής κατανοµής γιατί οι ϐαθµοί ελευθερίας είναι πολλοί). Το 95% διάστηµα εµπιστοσύνης είναι ( x x 2 = 0.77) 0.77 ± [.35, 0.9]. Οπως και πριν που η διασπορά ήταν γνωστή συµπεραίνουµε πως σε επίπεδο εµπιστοσύνης 95% οι ασφάλειες της εταιρίας Α κατά µέσο όρο καίγονται σε µικρότερη ένταση ηλεκτρικού ϱεύµατος απ ότι οι ασφάλειες της εταιρίας Β κατά ένα ποσό που κυµαίνεται µεταξύ 0.9 και.35 αµπέρ. Παρατηρήσεις Οι παράγοντες που επηρεάζουν τον υπολογισµό του διαστήµατος εµπιστοσύνης της µ µ 2 είναι οι ίδιες όπως για τη µ. Σ αυτές προστίθεται και ο παράγοντας της ισότητας των διασπορών των X και X 2. Στον Πίνακα2.3 συνοψίζεται η εκτίµηση του διαστήµατος εµπιστοσύνης της µ µ 2 στις διάφορες περιπτώσεις.

24 42 ΕΚΤΙΜΗΣΗ ΠΑΡΑΜΕΤΡΩΝ διασπορές κατανοµή n, n 2 κατανοµή της x x 2 διάστηµα εµπιστοσύνης των X,X 2 των X,X 2 γνωστές κανονική z ( x x 2 ) (µ µ 2 ) σ 2 + σ2 2 n n 2 N(0, ) ( x x 2 ) ± z α/2 γνωστές µη κανονική µεγάλα z ( x x 2 ) (µ µ 2 ) N(0, ) ( x x 2 ) ± z σ 2 α/2 + σ2 2 n n 2 γνωστές µη κανονική µικρά άγνωστες άνισες/ίσες άγνωστες ίσες άγνωστες ίσες άγνωστες άνισες σ 2 n + σ2 2 n 2 σ 2 n + σ2 2 n 2 µεγάλα z ( x x 2 ) (µ µ 2 ) s N(0, ) ( x s 2 x 2 ) ± z 2 α/2 + s2 n + s2 2 n 2 2 n n 2 t n +n 2 2 ( x x 2 ) ± t n +n 2 2, α/2s p κανονική µικρά t ( x x 2 ) (µ µ 2 ) s p n + n 2 µη κανονική µικρά µικρά Πίνακας 2.3: Εκτίµηση του διαστήµατος εµπιστοσύνης της διαφοράς µ µ 2 ανάλογα µε τη γνώση των διασπορών και κατανοµών των τ.µ. X και X 2 καθώς και των µεγεθών n και n 2 των αντιστοίχων δειγµάτων. n + n 2 Υπάρχει ϕανερή αντιστοιχία των περιπτώσεων για το διάστηµα εµπιστοσύνης της µέσης τιµής (Πίνακας 2.2) και για το διάστηµα εµπιστοσύνης της διαφοράς δύο µέσων τιµών (Πίνακας 2.3, οι έξι πρώτες σειρές). Για τη διαφορά µέσων τιµών υπάρχει ακόµα η περίπτωση των άνισων κι αγνώστων διασπορών σε συνδυασµό µε µικρά δείγµατα (τελευταία σειρά του Πίνακα 2.3) για την οποία δεν µπορούµε να καθορίσουµε την κατανοµή της εκτιµήτριας x x 2 και απ αυτήν να ϐρούµε το διάστηµα εµπιστοσύνης. Σ αυτήν την περίπτωση ούτε η µη παραµετρική εκτίµηση µπορεί να δώσει διάστηµα εµπιστοσύνης (για τη διάµεσο). Για το δ.ε. της µ είχαµε ορίσει τη σχέση του εύρους w του δ.ε. και του µεγέθους n του δείγµατος. Επειδή για το δ.ε. της µ µ 2 έχουµε µεγέθη δύο δειγµάτων n και n 2 είναι δύσκολο να καθορίσουµε τα n και n 2 για κάποιο εύρος w του διαστήµατος εµπιστοσύνης. Αυτό το πρόβληµα δε ϑα µας απασχολήσει εδώ. Για το διάστηµα εµπιστοσύνης της διαφοράς µέσων τιµών υποθέσαµε οτι οι τ.µ. X και X 2 είναι ανεξάρτητες. ε ϑα ασχοληθούµε µε την περίπτωση που οι X και X 2 είναι εξαρτηµένες (όταν δηλαδή έχουµε Ϲευγαρωτές παρατηρήσεις) γιατί τέτοια προβλήµατα δεν παρουσιάζονται συχνά στη µηχανική. Τα διαστήµατα εµπιστοσύνης, πέρα από το ότι δίνουν ένα εύρος τιµών για την παράµετρο που µελετάµε, µας δίνουν τη δυνατότητα να ελέγξουµε αν µια συγκεκριµένη τιµή της παραµέτρου είναι πιθανή ϐλέποντας αν ανήκει στο διάστηµα εµπιστοσύνης. Ετσι, στο τελευταίο παράδειγµα, ελέγχοντας αν η τιµή µηδέν ανήκει στο διάστηµα εµπιστοσύνης µας επιτρέπει στην ουσία να ελέγξουµε αν οι δύο µέσες τιµές διαφέρουν σηµαντικά ή όχι. Για τον στατιστικό έλεγχο υποθέσεων υπάρχει συγκεκριµένη µεθοδολογία που αποτελεί σηµαντικό κοµµάτι της στατιστικής µε το οποίο όµως δε ϑα ασχοληθούµε εδώ. Θα πρέπει να τονισθεί ότι τα διαστήµατα εµπιστοσύνης